ابو جعفر ، حازم بن خزيمه و هيثم بن شعبه را فرا خواند و به آنان گفت : به نزد ابن هبيره برويد و او را راحت كنيد ، عده‌اى گرد آمدند و نزد ابن هبيره رفتند ، آنان يكصد نفر بودند ، وقتى به در خانه‌اى كه ابن هبيره در آن سكونت داشت رسيدند ، ابن هبيره گفت : چه مىخواهيد ؟ در پاسخ گفتند ما مىخواهيم بقيهء خزائن را با خود ببريم . ابن هبيره اجازه داد ، آنان وارد شدند و مقدارى قدم زدند ، ابن هبيره كه لباسى مصرى بر تن كرده بود ، به همراه فرزند كوچكش نزد آنان آمد و گفت : شما پيام خوبى براى من نداريد ، داود فرزند ابن هبيره ، برخاست و با آنان درگير شد ، ابن هبيره به سجده افتاد و آنان را سوگند داد تا به فرزند كوچكش تعدى نكنند . ابن هبيره را در همان وضعيت سجده از پا در آوردند و پس از آن سر او و ديگران را جدا كردند و نزد ابو جعفر آوردند . ابو العباس در نامه‌اى به ابو جعفر از او خواست تا تمامى ياران ابن هبيره را از بين ببرد ، ابو جعفر نيز تعداد 50 نفر از ياران ابن هبيره را دستگير كرد و به قتل رساند ، پس از كشته شدن آنان كار مردم استوار شد و كسى متعرض ديگرى نمىشد . پس از اين كار كه ابو جعفر در حق ابن هبيره و ياران و طرفداران وى كرد ، كار پادشاهى بنى العباس استوار شد . وقتى ابن هبيره كشته شد ، ابو جعفر در ميان شاميان آواز داد ، به شامتان بپيونديد ما نيازى به شما نداريم ، مردم شام نيز به حركت در آمدند و به كوفه رفتند . ابو جعفر به حيره رفت كه در آن موقع ابو العباس در آن جا بود ، داود بن على به حجاز فرستاده شد تا بنى اميه را كه در آن جا به قدرت رسيده بودند از بين ببرد . ابو العباس از حيره به انبار رفت ، ابو العباس فرمان داد تا سر ابن هبيره را در حيره بر چوب كنند . همچنين سر مروان بن محمد ، و ثعلبة بن سلامه و عثمان بن ابو شعيب را نيز بر چوب كردند . گويند ، پيوستگى بنى اميه از ميان رفت و آنان را هر جا بودند يافتند و به قتل رساندند . اختلاف ابو مسلم با ابو العباس ابو مسلم نامه‌اى براى ابو العباس فرستاد و از وى درخواست كرد تا وى را ديدار كند . در اين سفر عده‌اى از ياران و لشكريان نيز همراه ابو مسلم بودند ، ابو مسلم از ابو العباس خواست تا حج به جاى آورد ، ابو العباس گفت : اگر ابو جعفر در مراسم حج نبود تو را مىفرستادم تا مراسم حج را به جاى آورى . ابو جعفر به ابو العباس گفت : از من پيروى كن و ابو مسلم را بكش ، به خدا سوگند ، در سر ابو مسلم خيانت خلجان مىكند .